Le Robot : objet, personne physique ou personne morale ?
Un robot est un objet et doit le rester. Il faut arrêter de fantasmer et croire que la machine aura une âme. Je ne comprends pas ces gens, parfois des avocats très médiatiques, qui voudraient porter les robots au niveau de l’humain au point de vouloir en prendre la défense en cas d’accident par exemple. La machine aussi bourrée d’intelligence soit-elle, devra être traitée comme un outil et rien d’autre. Toutes les décisions qu’elle prendra devront engager la responsabilité de son détenteur. Ceci est aussi valable pour une voiture que pour n’importe quel robot.
Selon vous, lancer des robots sur le marché des particuliers est-il le risque de trop ?
Les robots sont déjà sur le marché depuis longtemps, y compris les robots-animaux ou humanoïdes. Les Japonais sont les champions du domaine. On peut adopter le chien Aibo de chez Sony pour 2500 euros ! Ça ne fait pas de mal et ça rompt la solitude, surtout qu’il s’adapte aux habitudes de son maître. Le risque pour le moment à mon avis est surtout du côté des drones civiles, utilisés par Daesh en Syrie rappelons-le. C’est d’autant plus inquiétant que les moyens de leur interception restent très limités pour le moment. De plus, si une IA capable de trouver un objectif de manière autonome y est embarquée, ça ne fera que démultiplier leur dangerosité.
Si l’on prend l’exemple de l’IA TAY, à l’origine de tweets racistes, les dérives qualifiées d’imprévisibles sur les armes autonomes le sont-elles vraiment ?
Le chatbot Tay de chez Microsoft est effectivement un exemple de dérive possible de l’utilisation de l’IA. Cet agent conversationnel a la particularité d’avoir un apprentissage continu à mesure qu’il échange avec les gens sur Internet. Comme certains malins se sont amusés à introduire toute sorte de propos extrémistes dans les conversations, il a fini par les imiter. C’était une dérive tout à fait prévisible, car on connaît nombre d’attaques permettant de tromper ou faire dériver les IA actuelles. Pour les armes autonomes, il faut d’abord parler régulation ou interdiction avant toute chose.
Votre connaissance du milieu vous permet-elle de douter de l’efficacité des régulations sur les armes autonomes ?
Je pense que ce sera effectivement difficile d’avoir une entente entre les États sur le sujet des SALA (systèmes d’armes létaux autonomes). C’est l’histoire de la technologie depuis toujours et personne ne veut être freiné dans son élan de « progrès ». Plusieurs organisations internationales ont été créées pour essayer d’influer sur le cours des choses, mais ce sera sans doute difficile. Je pense qu’il faut le faire quand même et ne rien lâcher pour essayer d’aboutir à une sorte de « traité international de non-prolifération des robots tueurs ». La France pousse dans ce sens-là et je m’en réjouis. On peut douter de l’issue quand on voit comment les Chinois ou les Américains avancent sur le sujet, mais qui ne tente rien n’a rien. Le sujet fera éventuellement l’unanimité le jour où une grosse bavure sera causée par un robot, mais on peut espérer qu’une entente internationale arrive bien avant. Il n’est pas interdit d’être intelligent !